El mercado de hardware para inteligencia artificial ha alcanzado un nuevo punto de inflexión. Según informes recientes, los racks GB200 NVL72 de Nvidia, basados en la arquitectura Blackwell, están demostrando un rendimiento muy superior al de su competencia, la plataforma AMD Instinct MI355X.
Nvidia GB200 NVL72: 28x superior al AMD Instinct MI355X en IA
Los datos indican que Nvidia están logrando un rendimiento hasta 28 veces superior en cargas de trabajo de inferencia de IA.
La clave de esta brecha reside en el rendimiento por GPU dentro de entornos MoE (Mixture of Experts). Mientras que la solución de AMD destaca por su impresionante capacidad de memoria HBM3e, Nvidia ha apostado por un diseño que ellos denominan como «co-diseño extremo». Esta estrategia integra hardware, software y redes de una manera tan optimizada que permite alcanzar hasta 75 tokens por segundo por GPU, superando los resultados obtenidos por clústeres similares basados en el MI355X.
Te recomendamos nuestra guía sobre las mejores tarjetas gráficas del mercado
Eficiencia y Rentabilidad (TCO)
Más allá de la potencia bruta, la diferencia se traslada a las finanzas. Aunque el coste inicial de un rack NVL72 es elevado, su eficiencia operativa lo sitúa como la opción más rentable para las fábricas de IA de 100MW. Informes de Morgan Stanley están asegurando que los márgenes de beneficio para quienes operan con Nvidia pueden alcanzar el 77.6%, mientras que las plataformas que utilizan hardware de AMD podrían enfrentar márgenes negativos debido al costo total de propiedad (TCO) y la menor tasa de procesamiento de tokens por dólar invertido.
Conclusión
Nvidia no solo vende chips, sino un ecosistema escalable. El rack GB200 NVL72, con sus 72 GPUs interconectadas mediante NVLink de quinta generación y refrigeración líquida, se consolida como la infraestructura de referencia para modelos de lenguaje de billones de parámetros. Aunque AMD sigue siendo una alternativa potente, más que nada por la implementación de las memorias HBM3e, la ventaja de Nvidia en la ejecución de modelos MoE complejos parece haber aumentado la brecha competitiva entre ambos en el segmento de la IA.
